Ортогона́льная ма́трица — квадратная матрица ${\displaystyle A}$ с вещественными элементами, результат умножения которой на транспонированную матрицу ${\displaystyle A^{T}}$ равен единичной матрице:

${\displaystyle AA^{T}=A^{T}A=E,}$

или, что эквивалентно, её обратная матрица (которая обязательно существует) равна транспонированной матрице:

${\displaystyle A^{-1}=A^{T}.}$

Комплексным аналогом ортогональной матрицы является унитарная матрица.

Ортогональная матрица с определителем ${\displaystyle +1}$ называется специальной ортогональной.